When Cloud Agents Meet Device Agents: Lessons from Hybrid Multi-Agent Systems
当云端Agent遇到设备端Agent:混合多智能体系统的实践教训
🧭 混合云边多智能体系统 · 架构与成本/能效权衡 ★ 深度解读
Qualcomm AI Research
系统研究混合云边多智能体架构的性能-成本-能效权衡,揭示规划式与建议式架构的任务依赖性及上下文重置对长程执行的关键作用
📌 工作参考价值(4 点)
- 混合部署策略:将 token 密集型执行放在设备端(Qwen3 4B-32B),云端(GPT-4o)仅作周期性监督,可大幅降低 API 成本同时保持竞争力,适合电商客服 Agent、商品信息聚合等长程交互场景。
- 按任务特性选型:结构化规划(PEVR)在状态空间大且错误不可逆的 UI 操作任务中显著优于建议式(EVA),而深度搜索类任务中建议式更优,启示电商 Agent 在导购对话(需要严格跟进步骤)和文档检索(需要灵活聚合)场景应采用不同协作模式。
- 控制监督频率与上下文重置:过频繁的云端干预会损害性能,合适的验证间隔及干预后的上下文重置可防止 KV-cache 膨胀,让设备端 SLM 能胜任长程任务,适合内存受限的移动端部署。
- 避免简单路由:混合 MAS 能解决单纯云或设备端模型独立无法完成的任务子集,因此构建云端-设备协同系统时应考虑动态任务分配而非静态路由,在电商 Agent 工作流中可据此设计协调整合模块。